Nhìn chung, Tolbukhin được coi là một trong những tướng lĩnh Hồng quân xuất sắc nhất trong Chiến tranh thế giới thứ hai. Tỉ mỉ, cẩn thận và không quá tham vọng như một số vị chỉ huy khác, Tolbukhin được các sĩ quan đồng ngũ và binh lính dưới quyền rất tôn trọng, nhất là vì ông luôn cố gắng hạn chế thương vong cho đơn vị của mình ở mức thấp. Ông đã được tặng thưởng nhiều danh hiệu, huân huy chương cao quý bao gồm quân hàm cao nhất Nguyên soái Liên Xô, Huân chương Chiến thắng, danh hiệu Anh hùng Liên bang Xô viết và Anh hùng của các nước mà lực lượng của Tolbukhin đã tham gia đuổi quân Đức khỏi lãnh thổ. Tại Bulgari, thành phố Dobrich đã được đổi tên thành Tolbukhin đến năm 1989. Mộ của Tolbukhin được đặt trang trọng tại chân tường Điện Kremlin và một đài tưởng niệm cũng được dựng lên tại quê hương ông Yaroslavl. Tolbukhin còn được đặt tên cho một con đường ở thành phố Odessa.

Một trong những con phố chính của thành phố Belgrade, thủ đô Serbia được mang tên Tolbukhin: Phố Nguyên soái Tolbukhin (tiếng Serbia: Улица Маршала Толбухина). Sau sự sụp đổ của Chủ nghĩa Cộng sản tại Nam Tư và Serbia, con phố này được đổi tên thành Phố Đại tướng McKenzie (tiếng Serbia: Mekenzijeva ulica). Tuy vậy hiện nay người dân ở Belgrade vẫn tiếp tục dùng tên "cũ" của con phố này - Phố Đại tướng Tolbukhin vì ông đã là tư lệnh lực lượng giải phóng Belgrade trong Chiến tranh thế giới thứ hai.